ChatGPT将加强暴力内容限制 用户反复出现危险对话可能被封号

OpenAI 近日表示，未来几周内将收紧 ChatGPT 对暴力相关内容的限制，并针对未成年人用户加强武器及安全系统信息方面的实用能力提升防护。按照新规，如果对话显示用户持续关注暴力或严重伤害他人的想法，ChatGPT 可以主动终止对话；若用户多次因这类问题被终止对话，账号甚至可能被封禁。

ChatGPT 原有政策本就禁止提供协助用户策划或实施暴力行为的指导。此次调整进一步限制模型在回答“过去大规模袭击事件及实施者”相关问题时给出的细节，即模型会出于安全考虑缩减内容，甚至拒绝回答。

限制范围涵盖重现袭击过程中涉及的武器、装备及其获取方式，也包括限制用户查询可能扩大袭击者知名度的伤害规模详细比较。上述限制对所有用户一律适用，不区分年龄段或提问目的，因此成年用户同样会受到约束。

对于被识别为未满 18 周岁的用户，OpenAI 还将限制可能被用于实施暴力的武器和安全系统的实用信息，这项保护同样适用于表面上没有显示暴力意图的问题。OpenAI 表示，青少年仍可通过 ChatGPT 寻求帮助，了解如何预防或缓和暴力、如何与可信赖的成年人取得联系。

改进后的年龄预测机制会结合用户行为等多种信号，持续评估账号是否可能属于未成年人，并在适当情况下自动启用适用于未满 18 周岁用户的保护措施。如果用户被误判为未成年人，也可以主动提交身份信息进行验证。